# from llama_megatronDp import pretrain
# from llama_new import pretrain
from llama_lyh import pretrain

if __name__ == "__main__":
        pretrain()
